Amazon Data Firehose
https://gyazo.com/cfff5eb536b9cfdfc37a11140e8523a5
Amazon Data Firehose とは - Amazon Data Firehose
a.k.a. Amazon Kinesis Data Firehose
Apache ParquetApache Parquet.icon 形式に變換して batch で Amazon S3Amazon S3.icon に保存する、等
追記する以上の事をやるには
AWS LambdaAWS Lambda.iconで變換する
Amazon Data Firehose でソースデータを変換する - Amazon Data Firehose
Amazon S3Amazon S3.iconに保存してから S3 event 通知或いは batch で變換する
A2-04 データレイク構築における成功の秘訣~マインドと進め方、設計ベストプラクティス~
https://gyazo.com/ab5f639fa1e35382e5c5862827e996d2
https://gyazo.com/3bf797b1ee92a0c60be82fe1c2950269
Amazon Data Firehose クォータ - Amazon Data Firehose
PutRecord
PutRecordBatch
Amazon Data Firehose での動的パーティショニング - Amazon Data Firehose
Amazon AthenaAmazon Athena.icon の partition に使ふ
Amazon S3 オブジェクトのカスタムプレフィックス - Amazon Data Firehose
Amazon Data Firehose 例 - Amazon Athena
Firehose での入力レコードフォーマットの変換 - Amazon Data Firehose
Apache Parquet 形式に變換して、Amazon AthenaAmazon Athena.icon を速く・安くする